PACE：统一的压缩-提取范式加速视觉语言模型推理
🧭 VLM推理加速 · token压缩
Sun Yat-sen University · Power Dispatch Control Center, Guangdong Power Grid Co., Ltd. · Shenzhen Loop Area Institute
训练无关的VLM推理加速框架，通过像素自适应压缩和动态双注意力提取，仅用10%视觉token保留93.8%性能，TTFT加速3.1倍
📌 工作参考价值（4 点）
- 电商商品图像理解：对大规模商品图进行VLM推理（如属性提取、图文一致性校验）时，可借鉴APC在编码前评估像素信息密度，对背景简单或冗余区域降采样，降低视觉编码器计算量，显著缩短首token延迟，适合实时性要求高的在线服务。
- 多模态Agent在搜索/推荐中的应用：当Agent需要理解用户上传图片或商品图来辅助推荐时，DDAE融合视觉编码器内部信号和LLM语义信号，可在严格token预算下保留关键视觉细节（如商品logo、纹理），避免性能损失，提升交互响应速度。
- 训练无关、即插即用的设计便于快速集成到现有VLM服务，无需微调即可部署，适合频繁迭代的线上系统；10%视觉token保留93.8%性能、3.1倍TTFT加速的结论可作为token预算设定的参考基准。
- 架构上，将压缩前置到编码器之前、提取后置到LLM之前，形成两级优化，这种“先压缩后提取”的范式可以启发多模态推荐中其他模态（如视频帧、音频）的token优化，在保持性能的同时降低整体推理成本。
视觉 Token 剪枝的 AI4AI 框架
🧭 LLM 驱动的视觉 Token 剪枝策略自动设计
Xi'an Jiaotong University · Ningbo University of Technology · North China University of Technology · MiLM Plus, Xiaomi Inc. · Hong Kong University of Science and Technology
提出 AutoPrune，用 LLM 驱动 TPDSL 自动设计视觉 token 剪枝策略，免训练，删 94.4% token 仍保持 99% 以上性能
📌 工作参考价值（4 点）
- 多模态推理降本：电商商品图/视频理解、广告创意理解等多模态服务中，可借鉴 AutoPrune 的训练-free 剪枝思路，用领域特定语言描述预算控制、token 打分、选择约束，快速替代手工规则，降低 prefill 延迟。
- 残差式策略搜索：不从头搜索，而是在强基础策略上做残差修改，缩小搜索空间并让 LLM 聚焦关键组件；该思想可迁移到推荐系统策略搜索、特征选择、排序规则自动调优。
- 可复用原子库：将剪枝/召回/过滤等策略拆成可组合原子操作，跨模型和场景迁移；业务中可构建相似 DSL 与原子库，降低策略迭代成本。
- 推理加速指标参考：删 94.4% 视觉 token 仍保持 99% 性能，FLOPs 降 9.9×，prefill 延迟降 6.4×；对低延迟电商搜索/推荐中的多模态 LLM 服务有直接工程参考价值。
ReVision：通过时间视觉冗余缩减扩展计算机使用代理
🧭 计算机使用代理 · 视觉冗余压缩 ★ 深度解读
University of British Columbia · Microsoft Research
去除连续 GUI 截图中的冗余视觉补丁，减少 token 开销的同时提升成功率，并让更长历史成为可能。
📌 工作参考价值（4 点）
- 视觉序列输入的去冗余思路：在需要处理连续图像（如商品展示流、用户生成内容的视频帧、广告创意迭代）的多模态推荐或 Agent 场景，可以借鉴 ReVision 的 patch‑level 冗余检测器，训练轻量 MLP 判断 patch 是否足够相似，从而减少重复 token，降低 LLM 推理成本。
- 冗余移除反而提升性能的发现：论文表明移除冗余视觉 token 会迫使模型更依赖历史中的有效信号，从而提升长程决策。这提示在推荐序列建模中，适当丢弃高度重复的特征可能有助于泛化，而不是一味保留全部信息。
- 延迟上下文饱和点：ReVision 通过压缩视觉 token 使模型可在相同上下文预算下纳入更多历史帧，持续获益。这对需要处理长用户行为序列的 agent 或推荐系统启示：通过特征压缩，可以延长有效历史的长度，而非简单地增加输入。
- 训练与推理一致的 token 过滤策略：在微调阶段就使用过滤后的视觉轨迹，使模型学会从历史帧中“补全”信息。这种训练技巧可迁移到其他多模态序列任务，确保模型适应推理时的压缩输入。